Читать книгу "Будущее без работы. Технология, автоматизация и стоит ли их бояться - Даниэль Сасскинд"

в 1961 году, во времена расцвета пуризма, Аллен Ньюэлл и Герберт Саймон писали, что исследователи «старательно разделяют… попытки выполнить с помощью машин задачи, выполняемые людьми, и попытки смоделировать процессы, которые люди фактически используют для выполнения этих задач»[167]. Подобным образом философ Хьюберт Дрейфус в 1979 году провел различие между «инженерами искусственного интеллекта» – группой практиков, «не заинтересованных в создании в широком смысле “умных” машин», – и «теоретиками искусственного интеллекта», руководствовавшихся тем, что он считал благородным научным призванием[168]. Пионеры кибернетики знали, что они могут сосредоточиться либо на создании машин, выполняющих задачи, которые исторически требовали разумных людей, либо на попытке понять сам человеческий интеллект[169]. Они предпочли сосредоточиться на последнем.

Отчасти, как мы уже видели, это было связано с тем, что изначально копирование человеческих действий казалось путем наименьшего сопротивления для создания умных машин. Люди так умны; зачем начинать с нуля проектирование машины, если можно просто сымитировать человека? Но у склонности к пуризму была и вторая причина. Для многих исследователей сам проект изучения человеческого интеллекта был намного интереснее, чем просто создание умных машин. Их труды полны восторженных упоминаний о классических мыслителях вроде Готфрида Вильгельма Лейбница, Томаса Гоббса, Рене Декарта и Дэвида Юма и цитат из их размышлений о человеческом разуме. Исследователи искусственного интеллекта надеялись, что идут по их стопам. Их интриговали вопросы не о машинах, а о людях – что такое «ум» и как работает «сознание», что на самом деле означает «думать» или «понимать»?

Искусственный интеллект для многих первопроходцев этой области всегда был лишь механическим средством достижения этой человеческой цели. Как выразился влиятельный философ Джон Сёрл, единственная цель ИИ – это «мощный инструмент в изучении разума». Хилари Патнэм, еще один выдающийся философ, полагал, что область искусственного интеллекта должна оцениваться исключительно по тому, научила ли она нас чему-нибудь важному… о том, как мы думаем»[170]. Вот почему многие исследователи искусственного интеллекта в то время считали себя учеными-когнитивистами, а вовсе не компьютерщиками[171]. Они воображали, что работают в области гораздо более масштабного проекта – понимания человеческого мозга[172].

Однако сейчас приоритеты меняются. По мере ускорения технического прогресса стало ясно, что подражание человеческому интеллекту больше не является единственным путем для развития способностей машин. Сейчас многие исследователи заинтересованы не столько в понимании человеческого интеллекта, сколько в создании хорошо функционирующих машин. Более того, исследователи, которые по-прежнему хотят разобраться в человеческом интеллекте, привлекаются для достижения более прагматических целей. Возможности машин, созданных прагматиками, вызвали интерес у крупных технологических компаний – Google, Amazon, Apple, Microsoft и других. У них есть доступ к огромным объемам данных и вычислительным мощностям, и на них работает масса талантливых исследователей, поэтому эти компании взяли на себя ведущую роль в развитии ИИ, задавая рамки этой области и меняя ее приоритеты. Должно быть, многим из них стремление к пониманию человеческого интеллекта все больше кажется эзотерической деятельностью ученых-фантазеров. Чтобы не выпадать из контекста, многие исследователи (даже те, кто склоняется к пуризму) должны все теснее сотрудничать с этими компаниями и учитывать их коммерческие амбиции.

Возьмем, к примеру, DeepMind – британскую компанию, разработавшую AlphaGo. В 2014 году Google приобрел ее за шестьсот миллионов долларов, и теперь в ней работают ведущие умы в области ИИ: их переманивают из ведущих научных отделов такими зарплатами, которые заставили бы краснеть их бывших коллег, – в среднем по 345 тысяч долларов в год на одного сотрудника[173]. В заявлении о целях компании говорится, что она пытается «понять интеллект», что на первый взгляд предполагает, что она может быть заинтересована в разгадке тайн человеческого мозга. Но, приглядевшись повнимательнее к ее реальным достижениям, вы увидите, что на деле она придерживается совершенно иной цели. Ее машины, такие как AlphaGo, являются «разумными» только в том смысле, что они обладают большими способностями, в некоторых случаях даже удивительными – но они не думают и не рассуждают, как люди.

Вспомним и о виртуальных ассистентах, таких как Алекса от компании Amazon, Сири от Apple и Кортана от Microsoft. Мы можем задавать им простые вопросы, как если бы мы общались с людьми, и они отвечают относительно убедительным человеческим голосом (в 2018 году Google опубликовала демонстрационную запись Duplex, своего виртуального ассистента, который позвонил в парикмахерскую, чтобы записаться на прием, – администратор понятия не имела, что она разговаривает с машиной, настолько реалистичной была ее интонация и «мычание» в трубку)[174]. Однако какое бы сильное впечатление ни производили подобные системы и как бы они ни походили на людей, они не проявляют интеллекта, подобного человеческому. Их внутренняя работа не похожа на работу мозга. Они не обладают сознанием. Они не думают, не чувствуют и не рассуждают так, как люди.

Уместно ли тогда вообще называть эти машины «разумными»? Пожалуй, не совсем. В большинстве случаев мы полагаемся на это слово или его синонимы, потому что других подходящих терминов у нас нет. Но, поскольку мы в основном используем эти слова, говоря о людях, пожалуй, неправильно использовать их и для рассуждений о машинах. Философы назвали бы это «категориальной ошибкой», под которой подразумевается использование слова, предназначенного для одной категории вещей, для обозначения другой: так же, как мы не ожидаем, что морковка будет говорить, а мобильный телефон – сердиться, нам не стоит ожидать, что машина будет обладать «интеллектом» или «разумом». А как еще мы можем их описать? Когда область искусственного интеллекта только зарождалась и у нее еще не было названия, высказывалось предложение назвать эту область исследований «вычислительной рациональностью». Этот термин может быть не столь захватывающим или провокационным, как «искусственный интеллект», но он, вероятно, лучше подходит, поскольку именно это и делают эти машины: они используют вычислительную мощность для поиска в огромном океане возможных действий наиболее рационального.

Снизу вверх, а не сверху вниз

Во многих отношениях нынешняя прагматическая революция в сфере искусственного интеллекта напоминает другую интеллектуальную революцию, произошедшую в последние полтора столетия и сформировавшую наше представление об интеллектуальных возможностях другой машины – то есть человека.

Ведь до настоящего времени люди, вооруженные своим интеллектом, остаются самыми способными машинами в мире. Долгое время преобладало религиозное объяснение этих способностей: они исходили от Бога – от чего-то еще более разумного, чем мы, создавшего нас по своему образу и подобию. Как, в конце концов, могла существовать такая сложная машина, как человек, если ее не создало нечто умнее нас? Уильям Пейли, теолог XVIII века, предлагал представить себе, как мы идем